| 基于卷积神经网络 CNN 的猫狗识别详细过程 | 您所在的位置：网站首页 › 狗的种类 图解 › 基于卷积神经网络 CNN 的猫狗识别详细过程 |
基于卷积神经网络 CNN 的猫狗识别详细过程
目录
一、卷积神经网络（CNN）1.1 卷积1.2 前馈神经网络1.3 卷积神经网络（CNN）
二、配置环境三、猫狗数据分类建模3.1 猫狗图像预处理3.2 猫狗分类的实例——基准模型3.3 数据增强3.4 dropout 层
四、参考资料
一、卷积神经网络（CNN）
卷积神经网络（Convolutional Neural Networks, CNN）是一类包含卷积计算且具有深度结构的前馈神经网络（Feedforward Neural Networks），是深度学习（deep learning）的代表算法之一。顾名思义，就是将卷积与前馈神经网络结合，所衍生出来的一种深度学习算法。
1.1 卷积
简单定义：设
f
(
x
)
,
g
(
x
)
f(x),g(x)
f(x),g(x)是
R
1
R1
R1上的两个可积函数，作积分：
∫
−
∞
∞
f
(
τ
)
g
(
x
−
τ
)
d
τ
\int_{-\infty}^{\infty}f(\tau)g(x-\tau)d\tau
∫−∞∞f(τ)g(x−τ)dτ称为函数
f
f
f与
g
g
g的卷积，记为：
f
(
x
)
∗
g
(
x
)
=
h
(
x
)
f(x)*g(x)=h(x)
f(x)∗g(x)=h(x)卷积与傅里叶变换有着密切的关系：两函数的傅里叶变换的乘积 = 它们卷积后的傅里叶变换（能简化傅里叶分析）
h
(
x
)
h(x)
h(x)要比
f
(
x
)
f(x)
f(x)、
g
(
x
)
g(x)
g(x)更光滑：特别当
g
(
x
)
g(x)
g(x)为具有紧致集的光滑函数，
f
(
x
)
f(x)
f(x)为局部可积时，它们的卷积
h
(
x
)
h(x)
h(x)也是光滑函数；利用这一性质，对于任意的可积函数
f
(
x
)
f(x)
f(x)，都可以简单地构造出一列逼近于
f
(
x
)
f(x)
f(x)的光滑函数列
f
s
fs
fs，这种方法称为函数的光滑化或正则化。卷积的概念还可以推广到数列、测度以及广义函数上去。
1.2 前馈神经网络
前馈神经网络是一种最简单的神经网络，各神经元分层排列。每个神经元只与前一层的神经元相连。接收前一层的输出，并输出给下一层．各层间没有反馈。其中每一层包含若干个神经元，各神经元可以接收前一层神经元的信号，并产生输出到下一层。第0层叫输入层，最后一层叫输出层，其他中间层叫做隐含层（或隐藏层、隐层），隐层可以是一层。也可以是多层。一个典型的多层前馈神经网络如下图所示： 
1.3 卷积神经网络（CNN）
卷积神经网络是在前馈神经网络的隐藏层做的改变，它的隐藏层包括卷积层、池化层、全连接层三部分。
输入层： 卷积神经网络的输入层可以处理多维数据： n维卷积神经网络处理数据类型一维卷积神经网络一维或二维数组二维卷积神经网络二维或三维数组三维卷积神经网络四维数组 由于卷积神经网络在计算机视觉领域应用较广，因此许多研究在介绍其结构时预先假设了三维输入数据，即平面上的二维像素点和 RGB 通道。隐藏层： 卷积层（包含有卷积核、卷积层参数、激励函数）：使用卷积核进行特征提取和特征映射。 卷积核类似于一个前馈神经网络的神经元，组成卷积核的每个元素都对应一个权重系数核一个偏差量，含义可类比视觉皮肤细胞的感受野卷积层参数包括卷积核大小、步长、填充，三者共同决定了卷积层输出特征图的尺寸，是卷积神经网络的超参数激励函数协助表达复杂的特征，类似于其它深度学习算法 3×3核的卷积核（卷积核一般采用3×3或2×2），卷积过程如下图： 池化层：在卷积层进行特征提取后，输出的特征图会被传递至池化层进行特征选择和信息过滤。池化层包含预设定的池化函数，其功能是将特征图中单个点的结果替换为其相邻区域的特征图统计量。池化层选取池化区域与卷积核扫描特征图步骤相同，由池化大小、步长和填充控制。  最大池化——>它只是输出在区域中观察到的最大输入值。 均值池化——>它只是输出在区域中观察到的平均输入值。 两者最大区别在于卷积核的不同（池化是一种特殊的卷积过程）。全连接层：卷积神经网络中的全连接层等价于传统前馈神经网络中的隐含层（每个神经元与上一层的所有神经元相连）。  全连接层位于卷积神经网络隐含层的最后部分，并只向其它全连接层传递信号。特征图在全连接层中会失去空间拓扑结构，被展开为向量并通过激励函数。全连接层的作用则是对提取的特征进行非线性组合以得到输出，即全连接层本身不被期望具有特征提取能力，而是试图利用现有的高阶特征完成学习目标。
输出层： 卷积神经网络中输出层的上游通常是全连接层，因此其结构和工作原理与传统前馈神经网络中的输出层相同。对于图像分类问题，输出层使用逻辑函数或归一化指数函数（softmax function）输出分类标签。在物体识别（object detection）问题中，输出层可设计为输出物体的中心坐标、大小和分类。在图像语义分割中，输出层直接输出每个像素的分类结果。应用领域： 计算机视觉 图像识别物体识别行为认知姿态估计神经风格迁移 自然语言处理其它 物理学遥感科学大气科学 卷积神经网络在计算机视觉识别上的全过程，如下图所示： 有想要了解神经网络算法的，参考博客：神经网络算法
二、配置环境
Anaconda 安装教程：https://blog.csdn.net/ssj925319/article/details/114947425按照该教程安装好 Anaconda 即可。打开 cmd 命令终端，创建虚拟环境。
conda create -n tf1 python=3.6
如下图所示：  激活环境：
activate
conda activate tf1
如下图所示：  安装 tensorflow、keras 库。在新建的虚拟环境 tf1 内，使用以下命令安装两个库：
pip install tensorflow==1.14.0 -i “https://pypi.doubanio.com/simple/”
pip install keras==2.2.5 -i “https://pypi.doubanio.com/simple/”
如果出现 Requirement already satisfied 的提示，参考博客：Requirement already satisfied 解决方法  安装 nb_conda_kernels 包。
conda install nb_conda_kernels
安装完后如下图所示：  重新打开 Jupyter Notebook（tf1）环境下的。  点击【New】→【Python[tf1环境下的]】创建 python 文件。 
三、猫狗数据分类建模
猫狗图片数据集下载：https://pan.baidu.com/s/1f-MvZl7_J6DF7P9CGBY3SQ——提取码：ruyn数据集下载完毕后，解压缩，并放在一个没有中文路径下，如下图所示： 
3.1 猫狗图像预处理
对猫狗图像进行分类，代码如下：
import os, shutil
# 原始目录所在的路径
original_dataset_dir = 'E:\\Cat_And_Dog\\train\\'
# 数据集分类后的目录
base_dir = 'E:\\Cat_And_Dog\\train1'
os.mkdir(base_dir)
# # 训练、验证、测试数据集的目录
train_dir = os.path.join(base_dir, 'train')
os.mkdir(train_dir)
validation_dir = os.path.join(base_dir, 'validation')
os.mkdir(validation_dir)
test_dir = os.path.join(base_dir, 'test')
os.mkdir(test_dir)
# 猫训练图片所在目录
train_cats_dir = os.path.join(train_dir, 'cats')
os.mkdir(train_cats_dir)
# 狗训练图片所在目录
train_dogs_dir = os.path.join(train_dir, 'dogs')
os.mkdir(train_dogs_dir)
# 猫验证图片所在目录
validation_cats_dir = os.path.join(validation_dir, 'cats')
os.mkdir(validation_cats_dir)
# 狗验证数据集所在目录
validation_dogs_dir = os.path.join(validation_dir, 'dogs')
os.mkdir(validation_dogs_dir)
# 猫测试数据集所在目录
test_cats_dir = os.path.join(test_dir, 'cats')
os.mkdir(test_cats_dir)
# 狗测试数据集所在目录
test_dogs_dir = os.path.join(test_dir, 'dogs')
os.mkdir(test_dogs_dir)
# 将前1000张猫图像复制到train_cats_dir
fnames = ['cat.{}.jpg'.format(i) for i in range(1000)]
for fname in fnames:
src = os.path.join(original_dataset_dir, fname)
dst = os.path.join(train_cats_dir, fname)
shutil.copyfile(src, dst)
# 将下500张猫图像复制到validation_cats_dir
fnames = ['cat.{}.jpg'.format(i) for i in range(1000, 1500)]
for fname in fnames:
src = os.path.join(original_dataset_dir, fname)
dst = os.path.join(validation_cats_dir, fname)
shutil.copyfile(src, dst)
# 将下500张猫图像复制到test_cats_dir
fnames = ['cat.{}.jpg'.format(i) for i in range(1500, 2000)]
for fname in fnames:
src = os.path.join(original_dataset_dir, fname)
dst = os.path.join(test_cats_dir, fname)
shutil.copyfile(src, dst)
# 将前1000张狗图像复制到train_dogs_dir
fnames = ['dog.{}.jpg'.format(i) for i in range(1000)]
for fname in fnames:
src = os.path.join(original_dataset_dir, fname)
dst = os.path.join(train_dogs_dir, fname)
shutil.copyfile(src, dst)
# 将下500张狗图像复制到validation_dogs_dir
fnames = ['dog.{}.jpg'.format(i) for i in range(1000, 1500)]
for fname in fnames:
src = os.path.join(original_dataset_dir, fname)
dst = os.path.join(validation_dogs_dir, fname)
shutil.copyfile(src, dst)
# 将下500张狗图像复制到test_dogs_dir
fnames = ['dog.{}.jpg'.format(i) for i in range(1500, 2000)]
for fname in fnames:
src = os.path.join(original_dataset_dir, fname)
dst = os.path.join(test_dogs_dir, fname)
shutil.copyfile(src, dst)
分类后如下图所示：   查看分类后，对应目录下的图片数量：
#输出数据集对应目录下图片数量
print('total training cat images:', len(os.listdir(train_cats_dir)))
print('total training dog images:', len(os.listdir(train_dogs_dir)))
print('total validation cat images:', len(os.listdir(validation_cats_dir)))
print('total validation dog images:', len(os.listdir(validation_dogs_dir)))
print('total test cat images:', len(os.listdir(test_cats_dir)))
print('total test dog images:', len(os.listdir(test_dogs_dir)))
 这是由于 numpy 版本与 tensorflow 版本不匹配的问题，安装 1.16.4 版本的 numpy 即可，命令如下：
pip install numpy==1.16.4 -i "https://pypi.doubanio.com/simple/"
安装完成后，会自动卸载已有的 numpy 版本。  重新再运行程序，就没有错误了，但是有警告（因为版本比较老了），没事。查看模型各层的参数状况：
#输出模型各层的参数状况
model.summary()
结果如下图所示：  第②步：配置优化器：
loss：计算损失，这里用的是交叉熵损失metrics：列表，包含评估模型在训练和测试时的性能的指标
from keras import optimizers
model.compile(loss='binary_crossentropy',
optimizer=optimizers.RMSprop(lr=1e-4),
metrics=['acc'])
第③步：图片格式转化所有图片（2000张）重设尺寸大小为 150x150 大小，并使用 ImageDataGenerator 工具将本地图片 .jpg 格式转化成 RGB 像素网格，再转化成浮点张量上传到网络上。
from keras.preprocessing.image import ImageDataGenerator
# 所有图像将按1/255重新缩放
train_datagen = ImageDataGenerator(rescale=1./255)
test_datagen = ImageDataGenerator(rescale=1./255)
train_generator = train_datagen.flow_from_directory(
# 这是目标目录
train_dir,
# 所有图像将调整为150x150
target_size=(150, 150),
batch_size=20,
# 因为我们使用二元交叉熵损失，我们需要二元标签
class_mode='binary')
validation_generator = test_datagen.flow_from_directory(
validation_dir,
target_size=(150, 150),
batch_size=20,
class_mode='binary')
输出结果：  查看上述图像预处理过程中生成器的输出，
#查看上面对于图片预处理的处理结果
for data_batch, labels_batch in train_generator:
print('data batch shape:', data_batch.shape)
print('labels batch shape:', labels_batch.shape)
break
如果出现错误：ImportError: Could not import PIL.Image. The use of `load_img` requires PIL，是因为没有安装 pillow 库导致的，使用如下命令在 tf1 虚拟环境中安装：
pip install pillow -i “https://pypi.doubanio.com/simple/”
安装完毕后，关闭 Jupyter Notebook 重新打开，重新运行一遍程序即可。输出结果如下：  第④步：开始训练模型（此时，我的电脑在飞速运转…）。
#模型训练过程
history = model.fit_generator(
train_generator,
steps_per_epoch=100,
epochs=30,
validation_data=validation_generator,
validation_steps=50)
电脑性能越好，它训练得越快。  第⑤步：保存模型。
#保存训练得到的的模型
model.save('G:\\Cat_And_Dog\\kaggle\\cats_and_dogs_small_1.h5')
第⑥步：结果可视化（需要在 tf1 虚拟环境中安装 matplotlib 库，命令：pip install matplotlib -i “https://pypi.doubanio.com/simple/”）。
#对于模型进行评估，查看预测的准确性
import matplotlib.pyplot as plt
acc = history.history['acc']
val_acc = history.history['val_acc']
loss = history.history['loss']
val_loss = history.history['val_loss']
epochs = range(len(acc))
plt.plot(epochs, acc, 'bo', label='Training acc')
plt.plot(epochs, val_acc, 'b', label='Validation acc')
plt.title('Training and validation accuracy')
plt.legend()
plt.figure()
plt.plot(epochs, loss, 'bo', label='Training loss')
plt.plot(epochs, val_loss, 'b', label='Validation loss')
plt.title('Training and validation loss')
plt.legend()
plt.show()
 过拟合常见解决方法： （1）在神经网络模型中，可使用权值衰减的方法，即每次迭代过程中以某个小因子降低每个权值。 （2）选取合适的停止训练标准，使对机器的训练在合适的程度； （3）保留验证数据集，对训练成果进行验证； （4）获取额外数据进行交叉验证； （5）正则化，即在进行目标函数或代价函数优化时，在目标函数或代价函数后面加上一个正则项，一般有L1正则与L2正则等。不过接下来将使用一种新的方法，专门针对计算机视觉，在深度学习模型处理图像时几乎普遍使用——数据增强。
3.3 数据增强
什么是数据增强？ 数据集增强主要是为了减少网络的过拟合现象，通过对训练图片进行变换可以得到泛化能力更强的网络，更好的适应应用场景。常用的数据增强方法有： 旋转 | 反射变换(Rotation/reflection)随机旋转图像一定角度; 改变图像内容的朝向翻转变换(flip)沿着水平或者垂直方向翻转图像缩放变换(zoom)按照一定的比例放大或者缩小图像平移变换(shift)在图像平面上对图像以一定方式进行平移；可以采用随机或人为定义的方式指定平移范围和平移步长, 沿水平或竖直方向进行平移. 改变图像内容的位置尺度变换(scale)对图像按照指定的尺度因子，进行放大或缩小；或者参照SIFT特征提取思想，利用指定的尺度因子对图像滤波构造尺度空间；改变图像内容的大小或模糊程度对比度变换(contrast)在图像的HSV颜色空间，改变饱和度S和V亮度分量，保持色调H不变；对每个像素的S和V分量进行指数运算(指数因子在0.25到4之间)，增加光照变化噪声扰动(noise)对图像的每个像素RGB进行随机扰动, 常用的噪声模式是椒盐噪声和高斯噪声颜色变化在图像通道上添加随机扰动颜色变化在图像通道上添加随机扰动输入图像随机选择一块区域涂黑参考《Random Erasing Data Augmentation》重新构建模型： 上面建完的模型就保留着，我们重新建一个 .ipynb 文件，重新开始建模。首先猫狗图像预处理，只不过这里将分类好的数据集放在 train2 文件夹中，其它的都一样。 然后配置网络模型、构建优化器，然后进行数据增强，代码如下：图像数据生成器增强数据：
from keras.preprocessing.image import ImageDataGenerator
datagen = ImageDataGenerator(
rotation_range=40,
width_shift_range=0.2,
height_shift_range=0.2,
shear_range=0.2,
zoom_range=0.2,
horizontal_flip=True,
fill_mode='nearest')
参数解释：
参数名释义rotation_range一个角度值(0-180)，在这个范围内可以随机旋转图片width_shift和height_shift范围(作为总宽度或高度的一部分)，在其中可以随机地垂直或水平地转换图片shear_range用于随机应用剪切转换zoom_range用于在图片内部随机缩放horizontal_flip用于水平随机翻转一半的图像——当没有假设水平不对称时(例如真实世界的图片)fill_mode用于填充新创建像素的策略，它可以在旋转或宽度/高度移动之后出现
查看数据增强后的效果：
import matplotlib.pyplot as plt
# This is module with image preprocessing utilities
from keras.preprocessing import image
fnames = [os.path.join(train_cats_dir, fname) for fname in os.listdir(train_cats_dir)]
# We pick one image to "augment"
img_path = fnames[3]
# Read the image and resize it
img = image.load_img(img_path, target_size=(150, 150))
# Convert it to a Numpy array with shape (150, 150, 3)
x = image.img_to_array(img)
# Reshape it to (1, 150, 150, 3)
x = x.reshape((1,) + x.shape)
# The .flow() command below generates batches of randomly transformed images.
# It will loop indefinitely, so we need to `break` the loop at some point!
i = 0
for batch in datagen.flow(x, batch_size=1):
plt.figure(i)
imgplot = plt.imshow(image.array_to_img(batch[0]))
i += 1
if i % 4 == 0:
break
plt.show()
结果如下（共4张，这里只截取了三张）：  图片格式转化。
train_datagen = ImageDataGenerator(
rescale=1./255,
rotation_range=40,
width_shift_range=0.2,
height_shift_range=0.2,
shear_range=0.2,
zoom_range=0.2,
horizontal_flip=True,)
# Note that the validation data should not be augmented!
test_datagen = ImageDataGenerator(rescale=1./255)
train_generator = train_datagen.flow_from_directory(
# This is the target directory
train_dir,
# All images will be resized to 150x150
target_size=(150, 150),
batch_size=32,
# Since we use binary_crossentropy loss, we need binary labels
class_mode='binary')
validation_generator = test_datagen.flow_from_directory(
validation_dir,
target_size=(150, 150),
batch_size=32,
class_mode='binary')
开始训练并保存结果。
history = model.fit_generator(
train_generator,
steps_per_epoch=100,
epochs=100,
validation_data=validation_generator,
validation_steps=50)
model.save('E:\\Cat_And_Dog\\kaggle\\cats_and_dogs_small_2.h5')
训练结果如下：  结果可视化：
acc = history.history['acc']
val_acc = history.history['val_acc']
loss = history.history['loss']
val_loss = history.history['val_loss']
epochs = range(len(acc))
plt.plot(epochs, acc, 'bo', label='Training acc')
plt.plot(epochs, val_acc, 'b', label='Validation acc')
plt.title('Training and validation accuracy')
plt.legend()
plt.figure()
plt.plot(epochs, loss, 'bo', label='Training loss')
plt.plot(epochs, val_loss, 'b', label='Validation loss')
plt.title('Training and validation loss')
plt.legend()
plt.show()
如下图所示：  由于数据量的增加，对比基准模型，可以很明显的观察到曲线没有过度拟合了，训练曲线紧密地跟踪验证曲线，这也就是数据增强带来的影响，但是可以发现它的波动幅度还是比较大的。下面在此数据增强的基础上，再增加一层 dropout 层，再来训练看看。
3.4 dropout 层
什么是dropout层？ Dropout层在神经网络层当中是用来干嘛的呢？它是一种可以用于减少神经网络过拟合的结构，那么它具体是怎么实现的呢？假设下图是我们用来训练的原始神经网络： 一共有四个输入
x
i
x_i
xi，一个输出
y
y
y。Dropout 则是在每一个 batch 的训练当中随机减掉一些神经元，而作为编程者，我们可以设定每一层 dropout（将神经元去除的的多少）的概率，在设定之后，就可以得到第一个 batch 进行训练的结果：  从上图我们可以看到一些神经元之间断开了连接，因此它们被 dropout 了！dropout顾名思义就是被拿掉的意思，正因为我们在神经网络当中拿掉了一些神经元，所以才叫做 dropout 层。
具体实现： 在数据增强的基础上，再添加一个 dropout 层。 #退出层 model.add(layers.Dropout(0.5)) 如下图所示，仅在构建网络模型时添加一层即可，其余部分不变： 再次训练模型，查看训练结果如下：  相比于只使用数据增强的效果来看，额外添加一层 dropout 层，仔细对比，可以发现训练曲线更加紧密地跟踪验证曲线，波动的幅度也降低了些，训练效果更棒了。
四、参考资料
[1] 基于Tensorflow和Keras实现卷积神经网络CNN [2] 卷积神经网络_百度百科 [3] 【TensorFlow&Keras】入门猫狗数据集实验–理解卷积神经网络CNN [4] 基于jupyter notebook的python编程-----猫狗数据集的阶段分类得到模型精度并进行数据集优化 [5] 【深度学习】：一文入门Dropout层 |
【本文地址】
公司简介
联系我们